Thập niên 1920 – Thập niên 1940

Năm 1927, lúc 16 tuổi, Mahalia rời bỏ miền Nam lên Chicago, Illinois, đang lúc diễn ra cuộc di dân lớn lôi cuốn hàng triệu người da đen lên phương bắc, trung tây và viễn tây để mưu sinh và tránh nạn kỳ thị chủng tộc. Ngay trong Chủ nhật đầu tiên, sau khi trình bày yêu thích của cô, "Hand Me Down My Favourite Trumpet, Gabriel", Mahalia được mời gia nhập ca đoàn của Nhà thờ Greater Salem Baptist. Cô lưu diễn tại các nhà thờ trong thành phố và các vùng lân cận, với nhóm Ngũ ca Johnson Gospel Singers, một trong những nhóm nhạc phúc âm chuyên nghiệp đầu tiên.[6]

Năm 1929, Mahalia gặp nghệ sĩ sáng tác Thomas A. Dorsey, người được xem là Cha đẻ của Nhạc Phúc âm. Dorsey cố vấn cho cô về âm nhạc, đến giữa thập niên 1930, hai người bắt đầu một chương trình lưu diễn kéo dài 14 năm. Jackson trình bày các ca khúc của Dorsey tại các chương trình và các hội nghị của hội thánh. "Take My Hand, Precious Lord" sáng tác bởi Dorsey trở thành ca khúc mang dấu ấn của Mahalia.[7]

Năm 1936, Mahalia kết hôn với Isaac Hockenhull, lớn hơn cô 10 tuổi, và là cựu sinh viên Đại học Fisk và Học viện Tuskegee. Mahalia từ chối hát nhạc thế tục, lời hứa nguyện mà cô đã giữ trọn trong suốt cuộc đời ca hát chuyên nghiệp, dù cô biết rằng nếu nhận lời, cô có thể có những khoản tiền kếch sù. Năm 1941, Mahalia chấp thuận ly hôn với Hockenhull sau những áp lực liên tục từ người chồng muốn hủy bỏ hôn ước. Một trong những lý do dẫn đến quyết định ly hôn là Hockenhull cố thuyết phục vợ từ bỏ sự giới hạn việc trình diễn trong nhà thờ hầu có thể hát nhạc blues và nhạc pop, và như thế kiếm nhiều tiền hơn.[8]

Năm 1931, Mahalia thu âm ca khúc "You Better Run, Run, Run, Run." Người ta không biết nhiều về ca khúc này, và hầu như không thể tìm thấy nó. Ngày 21 tháng 5 năm 1937, Mahalia thu âm một số ca khúc cho hãng Decca Coral,[9], với Estelle Allen đệm đàn dương cầm, gồm những bài hát, "God's Gonna Separate The Wheat From The Tares," "My Lord," "Keep Me Everyday," và "God Shall Wipe All Tears Away." Do thất bại về tài chính, Decca ngưng hợp tác với cô.

Năm 1947, Mahalia ký hợp đồng với Apollo, năm 1948 cô thu âm ca khúc "Move On Up A Little Higher", bài hát được yêu thích đến nỗi các cửa hiệu không có đủ đĩa để đáp ứng nhu cầu của khách hàng. Lượng đĩa bán ra lên đến con số đáng kinh ngạc, tám triệu đĩa.[10] (Ca khúc này về sau được vinh danh trong Giải Grammy Hall of Fame năm 1988).[11] Sự thành công này đã đưa tên tuổi Mahalia vào hàng các ngôi sao âm nhạc ở Mỹ và sau đó là ở Âu châu. Lúc này, Mahalia xuất hiện thường xuyên hơn tại các thính phòng, và ít hơn tại các nhà thờ, và không chỉ trình diễn với piano và organ, mà còn với những dàn nhạc lớn.

Các ca khúc khác được Mahalia thu âm cũng gây được tiếng vang như "Let the Power of the Holy Ghost Fall on Me" (1949), đoạt giải Grand Prix du Disque của Viện Hàn lâm Pháp, và "Silent Night, Holy Night" là đĩa đơn bán chạy nhất ở Na Uy. Khi Mahalia cất tiếng hát bài thánh ca "Silent Night" (Đêm Thánh Vô cùng) trên sóng phát thanh Đan Mạch, có hơn hai mươi ngàn đơn đặt hàng đổ về.[12] Cô cũng thu âm cho Apollo các ca khúc như "He Knows My Heart" (1946), "Amazing Grace" (Ân điển Diệu kỳ)(1947), "Tired" (1947), "I Can Put My Trust in Jesus" (1949), "Walk with Me" (1949), "Let the Power of the Holy Ghost Fall on Me" (1949), "Go Tell It on the Mountain" (1950), "The Lord's Prayer" (1950), "How I Got Over" (1951), "His Eye is on the Sparrow" (1951), "I Believe" (1953), "Didn't It Rain" (1953), "Hands of God" (1953), và "Nobody Knows" (1954).

Thập niên 1950 – Thập niên 1970

Năm 1950, Jackson là ca sĩ nhạc phúc âm đầu tiên trình diễn tại Sảnh Carnegie ở New York khi Joe Bostic tổ chức Festival Nhạc Phúc âm và Âm nhạc Tôn giáo. Trong chuyến lưu diễn châu Âu năm 1952, những nhà phê bình gọi cô là "ca sĩ nhạc phúc âm vĩ đại nhất thế giới". Tại Paris cô được gọi là Thiên thần Hòa bình, còn khi lưu diễn trên khắp lục địa cô hát trong những thính phòng đầy ắp khán giả. Sự nghiệp của Mahalia tiếp tục thăng tiến từ cuối thập niên 1950 đến đầu thập niên 1960. Cô bắt đầu một chương trình trên sóng phát thanh của CBS, và ký hợp đồng với Columbia Records trong năm 1954. Ngày 17 tháng 11 năm 1954, Tạp chí âm nhạc Down Beat đưa ra nhận xét, "Chẳng còn nghi ngờ gì, ca sĩ nhạc tâm linh vĩ đại nhất đang còn sống là Mahalia Jackson."[13] Album đầu tay của Mahalia cho Columbia là The World’s Greatest Gospel Singer, thực hiện năm 1954, kế tiếp là album Giáng sinh Sweet Little Jesus Boy, rồi Bless This House, đều được thực hiện trong năm 1956.

Tuy nhiên, sự thành công của cô cũng thu hút những lời chỉ trích từ những người chủ trương nhạc phúc âm chỉ nên trình diễn trong môi trường tôn giáo. Họ cảm thấy cô làm giảm giá trị giọng hát của mình nhằm tìm kiếm sự hâm mộ của đông đảo quần chúng. Tuy nhiên, trong thời gian này, Mahalia làm việc cật lực, cô hát nhiều bản nhạc phúc âm trong phim St. Louis Blues (năm 1958), và trình bày ca khúc "Trouble of the World" trong phim Imitation of Life (năm 1959), cũng như thu âm với Percy Faith. Cô là nhân tố thu hút đông đảo khán giả nhất cho phân khúc nhạc phúc âm tại Festival Jazz Newport năm 1957 do Joe Bostic tổ chức, được đài VOA thu âm và thể hiện lại trong năm 1958 (Newport 1958). Tháng 12 năm 1957, cô trình diễn tại Học viện âm nhạc Old Town School of Folk Music ở Chicago.[14] Năm 1961, Mahalia hát trong Lễ Nhậm chức của Tổng thống Hoa Kỳ John F. Kennedy. Cô thực hiện album Giáng sinh đầu tiên Silent Night (Songs for Christmas) năm 1962. Jackson trở thành gương mặt thân quen đối với khán giả truyền hình Anh khi những cuốn phim ngắn ghi hình những buổi trình diễn của cô được phát sóng trên đất nước này.

Tại cuộc Tuần hành đến Washington năm 1963, Mahalia trình bày trước 250.000 người ca khúc I’ve Been ‘Buked, and I’ve Been Scorned,[5] tại đây Martin Luther King, Jr. đã đọc bài diễn văn nổi tiếng của ông Tôi có một giấc mơ. Sau khi King bị ám sát vào tháng 4 năm 1968, giọng ca của Mahalia đã cất lên với ca khúc Take My Hand, Precious Lord trong tang lễ của nhà lãnh đạo Phong trào Dân quyền Mỹ, cũng là người bạn thân của bà. Năm 1961, Mahalia thực hiện chuyến lưu diễn châu Âu lần thứ hai (Recorded Live in Europe 1961), rồi trong những năm 1963-1964, 1967, 1968, và 1969. Năm 1970 có một lần biểu diễn trước Tổng thống Liberia William Tubman.

Album cuối cùng của Jackson là What The World Needs Now (1969). Năm sau, Jackson cùng Louis Armstrong trình diễn hai ca khúc Just a Closer Walk with Thee và When the Saints Go Marching In. Năm 1971, bà kết thúc sự nghiệp của mình bằng một buổi hòa nhạc ở Đức, rồi trở về Mỹ, xuất hiện lần cuối trên chương trình truyền hình The Flip Wilson Show. Jackson không hề tiếc thời gian và công sức khi giúp đỡ người khác. Bà thành lập Tổ chức Học bổng Mahalia Jackson nhằm hỗ trợ giới trẻ có cơ hội vào đại học. Do nỗ lực xây dựng sự hiểu biết giữa các quốc gia, Mahalia được trao Giải Bồ câu Bạc.

Mahalia Jackons chọn Chicago làm nơi lưu trú cho đến cuối đời. Với số tiền kiếm được, bà mở một cửa hiệu thẩm mỹ và một tiệm bán hoa, cũng như đầu tư vào bất động sản (cao nhất là 100 000 USD một năm).[15]